Kirill Meretskov sinh ra tại tỉnh Ryazan phía Đông Nam Moskva. Bố mẹ ông đều là nông dân và cả gia đình sống ở nông thôn.

Meretskov tình nguyện nhập ngũ tháng 6 năm 1916 và trở thành thợ máy trong quân đội Đế quốc Nga. Tháng 8 năm 1917 ông gia nhập Đảng Bolshevik và trở thành tham mưu trưởng một sư đoàn Cận vệ đỏ (tiền thân của Hồng quân sau này).

Trong thời gian Nội chiến Nga (1918), Meretskov học tập tại một học viện quốc phòng nhưng vài lần phải rời trường để ra mặt trận, tại chiến trường ông bị thương và sau đó được khen thưởng vì đã dũng cảm trong chiến đấu. Meretskov tốt nghiệp học viện năm 1921. Từ năm 1924 đến năm 1931 ông giữ nhiều vị trí khác nhau trong Quân khu Moskva.

Năm 1936, Meretskov rời Liên Xô để tình nguyện chiến đấu cho những người Cộng hòa trong Nội chiến Tây Ban Nha. Một năm sau ông hồi hương và đến năm 1939 thì được chỉ định làm Tư lệnh Quân khu Leningrad.

Ngày 30 tháng 11 năm 1939, Liên Xô tuyên chiến với Phần Lan, bắt đầu Chiến tranh Liên Xô - Phần Lan. Là Tư lệnh Quân khu giáp với Phần Lan, Meretskov là một trong những chỉ huy chung cho các chiến dịch. Những trận tiến công đầu tiên do Meretskov chỉ huy là thảm họa với Hồng quân, tuy vượt trội về quân số nhưng các lực lượng Liên Xô thiếu sự phối hợp và được trang bị rất kém cho chiến tranh mùa Đông. Đến giữa tháng 12 thì việc tấn công phải tạm hoãn vì thương vong lớn và thất bại liên tiếp. Đương nhiên thất bại này không phải lỗi của một mình Meretskov, vì chiến lược được đặt ra là đúng đắn, nhưng các mệnh lệnh chiến thuật ở cấp sư đoàn và thấp hơn lại tồi tệ. Mặt khác do hậu quả của cuộc Đại thanh trừng, các tướng lĩnh, sĩ quan Hồng quân tham chiến đa phần không có kinh nghiệm. Tuy vậy, Meretskov vẫn bị cách chức và chuyển về làm Tư lệnh Tập đoàn quân số 7 cũng đang tham chiến ở mặt trận Phần Lan, người thay thế ông ở Quân khu Leningrad là tướng Semyon Konstantinovich Timoshenko. Tháng 2 năm 1940, Hồng quân tấn công Phần Lan với sự chuẩn bị kĩ lưỡng hơn và có được chiến thắng, chiến tranh kết thúc bằng một thỏa ước được ký ngày 12 tháng 3. Trong vị trí Tư lệnh tập đoàn quân, Meretskov đã chỉ huy xuất sắc và được tặng thưởng danh hiệu Anh hùng Liên bang Xô viết. Sau đó, Meretskov trở thành Tổng tham mưu trưởng và sau đó là Phó ủy viên nhân dân phụ trách Quốc phòng (tương đương Thứ trưởng Bộ Quốc phòng).